Онлайн деградацията на жените и момичетата, която посрещаме с вдигане на рамене
Брещат аларми за дълбоки фалшификации на изкуствен интелект, които манипулират гласоподавателите, като автоматичното обаждане, звучащо като президент Байдън, който отиде в Ню Хемпшир домакинства или фалшивото видео на Тейлър Суифт, подкрепяща Доналд Тръмп.
И все пак всъщност има много по-голям проблем с deepfakes, на който не сме обърнали достатъчно внимание: deepfake голи видеоклипове и снимки, които унижават както известни личности, така и непознати деца. Едно скорошно проучване установи, че 98 процента от дълбоко фалшивите видеоклипове онлайн са порнографски и че 99 процента от набелязаните са жени или момичета. януари, но това отива далеч отвъд нея: компаниите печелят пари, като продават реклами и премиум абонаменти за уебсайтове, хостващи фалшиви секс видеоклипове на известни актриси, певици, влиятелни лица, принцеси и политици. Google насочва трафика към тези графични видеоклипове и жертвите нямат много средства.
Понякога жертвите са непълнолетни момичета.
Франческа Мани, 14-годишна второкласничка в гимназията в Ню Джърси, ми каза, че е била в час през октомври, когато високоговорителят я е извикал в канцеларията на училището. Там помощник-директорът и съветникът й казаха, че един или повече съученици от мъжки пол са използвали програма за „голо“, за да я снимат облечена и да генерират фалшив гол образ. Момчетата бяха направили също голи снимки на редица други второкурснички.
aiheeelp.com — и започнаха да се срещат с щатски законодатели и членове на Конгреса в опит да привлекат внимание към проблема.Въпреки че винаги е имало фалшиви изображения, изкуственият интелект прави процеса много по-лесен. Само с едно добро изображение на лицето на човек вече е възможно само за половин час да направите 60-секундно секс видео на този човек. След това тези видеоклипове могат да бъдат публикувани на общи порнографски уебсайтове, за да ги види всеки, или на специализирани сайтове за deepfakes.
Видеоклиповете там са графични и понякога садистични, изобразяващи вързани жени тъй като са изнасилени или уринирани, например. Един сайт предлага категории, включително „изнасилване“ (472 елемента), „плач“ (655) и „унижение“ (822). най-често между 7 и 13 години.
Graphika, компания за онлайн анализи, идентифицира 34 уебсайта за нудифициране, които са получили общо 24 милиона уникални посетители само през септември.
Когато Франческа беше набелязана, семейството й се консултира с полицията и адвокатите, но не намери лекарство. „Няма към кого да се обърна“, каза майка й, Дорота Мани. „Полицията казва: „Съжаляваме, не можем да направим нищо.“
Проблемът е, че няма закон, който да е явно нарушен. „Ние просто продължаваме да не можем да имаме правна рамка, която да бъде достатъчно гъвкава, за да се справи с технологиите“, каза Йота Сурас, главен правен директор на Националния център за изчезнали и експлоатирани деца.
Софи Комптън, режисьор на документален филм, направи филм по темата „Друго тяло“ и беше толкова ужасена, че стартира кампания и уебсайт MyImageMyChoice.org, за да настоява за промяна.
Едно проучване установи, че 74 процента от потребителите на дълбока фалшива порнография съобщават, че не се чувстват виновни за гледането на видеоклиповете.Имаме трудно постигнат консенсус, установен днес, че нежеланите целувки, опипване и унижение коментарите са неприемливи, така че как се пропуска тази друга форма на нарушение? Как може да ни пука толкова малко за защитата на жените и момичетата от онлайн деградация?
„Повечето оцелели, с които разговарям, казват, че са обмисляли самоубийство“, каза Андреа Пауъл, която работи с хора които са били дълбоко фалшифицирани и разработва стратегии за справяне с проблема.
Това е тежест, която пада непропорционално върху видни жени. Един deepfake уебсайт показва официалния портрет на жена член на Конгреса - и след това 28 фалшиви секс видеоклипа с нея. Друг уебсайт има 90. (Не се свързвам с тези сайтове, защото, за разлика от Google, не желая да насочвам трафик към тези сайтове и допълнително да им позволя да печелят от показването на изображения без съгласие.)
В редки случаи deepfakes са насочени към момчета, често за „секс изнудване“, при което хищник заплашва да разпространи неудобни изображения, освен ако жертвата не плати пари или не предостави голи тела. ФБР миналата година предупреди за увеличаване на дълбоките фалшификати, използвани за сексуално изнудване, което понякога е фактор за самоубийства на деца.
в Pornhub.”Оказа се, че голо видео, което е записано без знанието на Лиу. Скоро то беше изтеглено и публикувано на много други порно сайтове, а след това очевидно използвано за въртене на дълбоки фалшиви видеоклипове, показващи как тя извършва сексуални актове. Като цяло материалът се появи на най-малко 832 връзки.
Лиу беше ужасен. Тя не знаеше как да каже на родителите си. Тя се изкачи на върха на висока сграда и се подготви да скочи.
В крайна сметка Лиу не скочи. Вместо това, подобно на Франческа, тя се ядоса – и реши да помогне на други хора в същата ситуация.
Alecto AI, чиято цел е да помогне на жертвите на порнография без съгласие да намерят изображения на себе си и след това да ги премахнат. Пилотният вариант на приложението Alecto вече е достъпен безплатно за устройства на Apple и Android и Лиу се надява да установи партньорства с технологични фирми, за да помогне за премахването на съдържание без съгласие.Технологията може да се справи с проблемите тази технология е създадена, твърди тя.
Google е съгласен, че има място за подобрение. Никой служител на Google не пожела да обсъди проблема с мен в протокола, но Кати Едуардс, вицепрезидент по търсенето в компанията, излезе с изявление, в което се казва: „Разбираме колко тревожно може да бъде това съдържание и се ангажираме да надграждайки нашите съществуващи защити, за да помогнем на хората, които са засегнати.“
„Ние активно разработваме допълнителни предпазни мерки в Google Търсене“, се добавя в изявлението, като се отбелязва, че компанията има настройте процес, при който жертвите на deepfake могат да кандидатстват за премахване на тези връзки от резултатите от търсенето.
Говорителят на Microsoft, Кейтлин Рулстън, предложи подобно изявление, като отбеляза, че компанията е уеб формуляр, позволяващ на хората да поискат премахване на връзка към техни голи изображения от резултатите от търсенето в Bing. Изявлението насърчи потребителите да коригират настройките за безопасно търсене, за да „блокират нежелано съдържание за пълнолетни“ и призна, че „трябва да се свърши повече работа“. и няколко законопроекта бяха внесени в Конгреса. Някои щати са въвели свои собствени мерки.
Аз подкрепям опитите за справяне с дълбоките фалшиви фалшификации с наказателно право, но е лесно да се приеме закон и трудно да се наложи то. Един по-ефективен инструмент може да е по-опростен: гражданска отговорност за щети, причинени от тези дълбоки фалшификати. Технологичните компании вече са до голяма степен освободени от отговорност съгласно раздел 230 от Закона за благоприличие в комуникациите, но ако това бъде изменено и компаниите знаят, че са изправени пред съдебни дела и трябва да плащат обезщетения, техните стимули ще се променят и те ще се самоконтролират. И бизнес моделът на някои дълбоко фалшиви компании ще се срине.
Сенатор Майкъл Бенет, демократ от Колорадо, и други предложиха нов федерален регулаторен орган, който да наблюдава технологичните компании и новите медии, точно както Федералната комисия по комуникациите контролира старите медии. Това има смисъл за мен.
една крачка пред другите страни в регулирането на дийпфейковете и може би това отчасти се дължи на факта, че жена от Пърт, Ноел Мартин, е била набелязана на 17-годишна възраст от някой, който е превърнал нейно изображение в порно. Вбесена, тя стана адвокат и се посвети на борбата с подобни злоупотреби и лобирането за по-строги регулации.Един от резултатите е вълна от ответни фалшиви изображения, предназначени да я наранят. Някои включваха изображения на непълнолетната й сестра.
„Тази форма на злоупотреба е потенциално постоянна“, каза ми Мартин. „Тази злоупотреба засяга образованието на дадено лице, възможността за заетост, бъдещия капацитет за печалба, репутацията, междуличностните отношения, романтичните връзки, психическото и физическото здраве — потенциално завинаги.“
Най-големите пречки за регулиране на дълбоките фалшификати, вярвам, не са технически или юридически — въпреки че те са реални — а просто нашето колективно самодоволство.
Обществото също някога беше самодоволно домашно насилие и сексуален тормоз. През последните десетилетия придобихме съпричастност към жертвите и изградихме системи за отчетност, които, макар и несъвършени, насърчиха по-цивилизовано общество.
към редактора. Бихме искали да чуем какво мислите за тази или някоя от нашите статии. Ето няколко . А ето и нашия имейл: .Следвайте раздела за мнение на New York Times относно , , , и .
